Associació Consell de Cent

"INTELIGENCIA ARTIFICIAL: APORTACIONES Y RETOS"

El término inteligencia artificial es, según algunos autores, excesivo e inexacto, fruto de una operación de marketing de los años cincuenta del siglo XX. Sería más preciso hablar de cibernética avanzada. Así comenzó la conferencia de Joan Manuel del Pozo, organizada por la Associació Consell de Cent el jueves 20 de noviembre.

Joan Manuel del Pozo es actualmente presidente del Consejo Escolar de Cataluña, doctor en filosofía por la Universidad de Barcelona y profesor emérito de la Universidad de Girona. Ha traducido al catalán tres tratados filosóficos de Cicerón y es autor de la traducción directa, a partir del latín original, de La Utopía de Thomas More. Últimamente ha coeditado, con Ulises Cortés, el libro de diálogos sobre inteligencia artificial La inteligencia (artificial) en la butaca.

La propuesta era que hiciera una intervención sobre la inteligencia artificial desde la perspectiva filosófica y ética, más allá de la implementación y de la capacidad tecnológica. Con el título Inteligencia Artificial: Aportaciones y retos, captó la atención de los asistentes con citas que iban de Aristóteles, Parménides y Ramon Llull hasta Alan Turing, Yuval Noah Harari o el profesor Latorre, entre otros.

Primera parte: crítica conceptual y naturaleza de la IA

El ponente inicia su discurso desmontando el término inteligencia artificial, que considera un éxito de marketing de los años cincuenta que ha generado un “pensamiento mágico” excesivo. Propone que sería más honesto llamarla cibernética avanzada.

Para justificar por qué la máquina no posee verdadera inteligencia, recurre a la etimología latina:

Intus legere (“leer dentro”): la inteligencia humana tiene la capacidad de captar la esencia y la verdad profunda de las cosas, superando las apariencias. La IA, en cambio, no puede “leer dentro”: se queda en la superficie de los datos y es incapaz de comprender el contexto vital (social, familiar, emocional) en el que se toman las decisiones.

Inter legere (“escoger entre”): la inteligencia implica la capacidad de elegir ejerciendo la libertad. La máquina simula decisiones basándose en cálculos probabilísticos, pero no es libre ni responsable de sus actos.

Además, recuerda que nuestra inteligencia es “encarnada”: somos cuerpo, emociones y biología, mientras que la IA es puro cálculo abstracto desconectado de la vida.

Luces y sombras

Aportaciones positivas

Del Pozo no niega la potencia de la herramienta. Reconoce que la IA, especialmente cuando se combina con el big data, supera la capacidad humana en velocidad y procesamiento. Destaca su utilidad en campos como la medicina (diagnósticos por imagen, búsqueda de patrones) o la jurisprudencia (análisis rápido de miles de sentencias). No obstante, matiza que estas son herramientas de apoyo, no sustitutos del criterio humano experto.

Grandes retos y peligros

El núcleo de la conferencia se centró en los riesgos éticos y sociales:

La verdad frente a la plausibilidad: las herramientas generativas como ChatGPT no están programadas para decir la verdad, sino para ser “plausibles” y seductoras. Esto genera “alucinaciones” (mentiras expresadas con total seguridad) y comportamientos orientados a complacer al usuario antes que a ser veraces.

Los sesgos sociales: la IA actúa como un espejo que amplifica los defectos humanos. Al entrenarse con datos generados por la sociedad, reproduce y automatiza prejuicios como el racismo, el sexismo o la discriminación por edad.

Transferencia de responsabilidad y libertad: Del Pozo advierte que, por comodidad, los humanos estamos cediendo la toma de decisiones a la máquina. Con esta “transferencia de responsabilidad”, renunciamos a nuestra libertad y autonomía.

Manipulación democrática: cita el escándalo de Cambridge Analytica para mostrar cómo la IA puede microsegmentar al electorado, no para convencer racionalmente, sino para desmovilizar al votante contrario mediante fake news y manipulación emocional, poniendo en riesgo la democracia.

Coste ambiental: la IA tiene una “huella invisible”: el consumo desmesurado de agua y energía de los centros de datos.

Degradación del lenguaje: advierte que máquinas como ChatGPT, al querer ser accesibles a todo el mundo, tienden a rebajar la riqueza y complejidad del lenguaje, que considera el verdadero “sistema operativo” de la humanidad.

Conclusión: una llamada a la madurez

Para cerrar, Del Pozo rechaza dos posturas extremas: el “tecnopanfilismo” (creer ingenuamente que la tecnología lo resolverá todo) y la “tecnofobia” (querer destruir las máquinas por miedo y desconocimiento).

Propone un pacto con la tecnología: es necesario regularla legalmente, pero sobre todo reforzar la “inteligencia natural”. Esto implica mejorar nuestra educación, la ética, la capacidad crítica y la riqueza lingüística para que, a medida que la IA avance, los humanos también crezcamos y no terminemos dominados por la herramienta.

Resumen del turno de preguntas

El debate posterior sirvió para aterrizar los conceptos con ejemplos prácticos y políticos. Se comentaron anécdotas sobre cómo ChatGPT inventa con total convicción bibliografía de autores como Narcís Comadira, demostrando su falta de compromiso con la verdad. También se debatió intensamente sobre la regulación geopolítica, contrastando el modelo de control social chino y el laissez-faire estadounidense con los intentos garantistas (aunque débiles) de Europa.

Finalmente, se habló del ámbito médico, donde se concluyó que la IA puede ser una gran herramienta técnica, siempre que no elimine la visión contextual y humana que aporta el médico.

Ricard Martínez